买了一台 AI 盒子跑大模型，注意力全在 NPU 算力和内存上，机器到手开始装模型才发现——一个 7B 模型 4.5GB，一个 13B 模型 7.5GB，再装个嵌入模型、下个新版本，128GB 存储就快见底了。
存储这件事，选型时容易被忽略，但实际使用中很快会发现：存储空间不够，连多装几个模型都做不到。
在规划存储之前，先搞清楚模型文件的实际大小：
| 模型规模 | 量化方式 | 文件大小 | 说明 |
|---|---|---|---|
| 7B | Q4（4-bit） | ~4.5GB | 最常用，精度与性能平衡 |
| 7B | Q8（8-bit） | ~8.5GB | 精度更高，体积翻倍 |
| 13B | Q4（4-bit） | ~7.5GB | 推荐量化版本 |
| 13B | Q8（8-bit） | ~14GB | 精度更高 |
| 30B | Q4（4-bit） | ~16GB | 需大内存设备 |
| 70B | Q4（4-bit） | ~36GB | 仅旗舰设备（如 PB1501） |
| 嵌入模型（Embedding） | 各种 | 0.5~2GB | RAG 场景必需 |
同一个模型，不同量化方式存储大小差异明显：
| 量化方式 | 精度 | 7B 模型大小 | 13B 模型大小 | 适用场景 |
|---|---|---|---|---|
| Q4_K_M | 中高 | ~4.5GB | ~7.5GB | 大多数场景推荐 |
| Q5_K_M | 高 | ~5.5GB | ~9GB | 精度敏感场景 |
| Q8_0 | 很高 | ~8.5GB | ~14GB | 追求最高精度 |
| FP16 | 最高 | ~14GB | ~26GB | 研发/调试场景 |
除了模型文件，以下内容也会占用存储空间：
| 占用项 | 大小 | 说明 |
|---|---|---|
| 操作系统 | 2~5GB | Ubuntu Server / 统信 / 麒麟 |
| NPU 驱动 + 推理框架 | 1~2GB | Ollama / RKNN / CUDA |
| 日志文件 | 1~5GB（动态） | 长期运行逐渐积累 |
| 临时文件 / 缓存 | 1~3GB | 推理过程产生的缓存 |
| Docker 镜像（如有） | 2~5GB | 如使用容器化部署 |
| 系统 + 软件合计 | 约 8~15GB | - |
| 部署模型 | 系统 + 软件 | 推荐存储（1 个模型） | 推荐存储（3 个模型） | 推荐存储（5 个模型） |
|---|---|---|---|---|
| 7B Q4 | ~10GB | ≥32GB | ≥64GB | ≥128GB |
| 7B Q4 + 13B Q4 | ~10GB | ≥64GB | ≥128GB | ≥256GB |
| 70B Q4 | ~10GB | ≥64GB | ≥128GB | ≥256GB |
典型需求：只跑 1 个模型（如 7B Q4），做单一推理任务
| 存储配置 | 建议 |
|---|---|
| 最低配置 | 32GB eMMC |
| 推荐配置 | 64GB eMMC |
| 可存模型数 | 1 个 7B + 系统 = 约 15GB |
说明：如果确定只跑一个模型且不经常更换，64GB 足够。华一精品 PB0601/PB0801 标配 128GB eMMC，在这个场景下完全够用，且有充裕余量。
适用设备：PB0601、PB0801（标配 128GB eMMC）
典型需求：同时存 3~5 个模型，根据需要切换使用（如 7B Q4 + 13B Q4 + 嵌入模型）
| 存储配置 | 建议 |
|---|---|
| 最低配置 | 128GB SSD |
| 推荐配置 | 256GB SSD |
| 可存模型数 | 3~5 个模型 + 系统 = 约 50~80GB |
说明：128GB 可存 3~4 个 7B Q4 模型（含系统），256GB 可存 5~7 个，更从容。建议优先选支持 SSD 扩展的型号，eMMC 在频繁读写场景下性能不如 SSD。
适用设备：x86 系列（PB1001/PB1202/PB1301/PB1501），均支持 M.2 SSD
典型需求：跑大模型 + 本地知识库文档存储（PDF、Word、TXT 等）+ 向量数据库
| 存储配置 | 建议 |
|---|---|
| 最低配置 | 128GB SSD |
| 推荐配置 | 256~512GB SSD |
| 可存内容 | 2~3 个模型 + 知识库文档（数十 GB） |
说明：知识库文档可能积累到几十甚至上百 GB，建议 256GB 起步，并支持后期扩展。
适用设备：x86 系列，支持双 M.2 插槽的型号可扩展第二块硬盘
典型需求：AI 盒子 7×24 运行，需要保存长期日志和审计记录
| 存储配置 | 建议 |
|---|---|
| 最低配置 | 128GB SSD/eMMC |
| 推荐配置 | 256GB SSD + 日志定期清理 |
| 可存内容 | 1~2 个模型 + 长期日志（建议配置日志轮转，保留 30~90 天） |
说明：日志积累速度取决于推理频率，建议配置日志轮转（logrotate），保留 30~90 天日志即可。如需更长期留存，可外接 USB 硬盘或配置远程日志上传。
| 存储类型 | 速度 | 可扩展性 | 常见于 |
|---|---|---|---|
| eMMC | 中速（~250MB/s） | 不可更换 | ARM 边缘盒子 |
| M.2 SSD | 高速（~3000MB/s） | 可更换 | x86 迷你主机 |
方案一：外接 USB 硬盘
适用设备：所有带 USB 接口的 AI 盒子
优点：即插即用，成本低
缺点：速度受限（USB 3.0 约 400MB/s），长期运行需考虑供电和稳定性
方案二：更换 M.2 SSD（仅 x86 系列）
适用设备：PB1001、PB1202、PB1301、PB1501（均支持 M.2 插槽）
优点：速度快，稳定可靠
建议容量：512GB~1TB
方案三：网络存储（NAS）
适用设备：所有支持网络的 AI 盒子
优点：集中存储，多台设备共享模型文件
缺点：依赖网络，推理时需从网络加载模型（速度取决于网络带宽）
| 型号 | 默认存储 | 存储类型 | 是否可扩展 | 建议场景 |
|---|---|---|---|---|
| PB0601 | 128GB | eMMC | 可通过 USB 扩展 | 单模型边缘部署 |
| PB0801 | 128GB | eMMC | 可通过 USB 扩展 | 多模型边缘部署 |
| PB1001 | 512GB | M.2 SSD（双插槽） | 可更换/扩展 | 多模型 + RAG |
| PB1202 | 512GB | M.2 SSD（双插槽） | 可更换/扩展 | 多模型 + 开发 |
| PB1301 | 512GB | M.2 SSD | 可更换 | 多模型 + NPU 加速 |
| PB1501 | 2TB | M.2 SSD（双插槽） | 可更换/扩展 | 70B 模型 + 大量数据 |
A：128GB eMMC，系统约占用 10GB，剩余约 110GB，可存储约 20~24 个 7B Q4 模型（每个约 4.5GB），或 3~4 个 13B Q4 模型。实际数量取决于模型大小和量化方式。
A：可以，但不建议。外接存储速度较慢，会影响模型加载时间。建议将常用模型存储在内部存储，不常用的模型放在外接硬盘，按需加载。
A：会。长期运行的 AI 盒子会产生日志文件。建议配置日志轮转（logrotate），避免日志占满存储导致系统异常。PB0601/PB0801 出厂已预置日志管理策略。
A：eMMC 芯片焊死在主板上，无法更换。如果需要更大存储，建议：
通过 USB 接口外接移动硬盘
选择 x86 系列（支持 M.2 SSD 扩展）
A：存储满了，模型无法下载，推理日志无法写入，系统可能异常。建议监控存储使用率，在达到 80% 时及时清理日志或扩展存储。
A：政企项目可能需要：
数据加密存储（全盘加密或分区加密）
日志长期留存（根据审计要求保留 6 个月或更长）
存储冗余（双硬盘备份）
华一精品可按需提供存储定制方案。
